Ông được bầu làm Đại biểu Quốc hội khóa I nước Việt Nam Dân chủ Cộng hòa. Khi Pháp gây hấn ở Hà Nội, ông được cử làm Chủ tịch Ủy ban Hành chính Kháng chiến Hà Nội, Bí thư Đảng ủy Mặt trận kiêm Chủ tịch Ủy ban bảo vệ Hà nội. Với lực lượng chênh lệch, vũ khí thô sơ, thiếu thốn, lực lượng quân dân bảo vệ Hà nội phải chống lại lực lượng tinh nhuệ được vũ trang hiện đại của Pháp, cầm chân và tiêu hao quân Pháp trong gần 2 tháng là một kỳ công đáng khích lệ cho quân đội non trẻ của Việt Nam Dân chủ Cộng hòa.

Ngày 25 tháng 1 năm 1948, Chủ tịch Hồ Chí Minh ký Sắc lệnh 125/SL cử ông làm Ủy viên Nhân dân trong Ủy ban Kháng chiến kiêm Hành chính Liên khu III[3]. Không lâu sau, ông được bổ nhiệm làm Chủ tịch Ủy ban Kháng chiến Hành chính Liên khu III.

Tháng 2 năm 1951, ông được bầu là Ủy viên dự khuyết Ban Chấp hành Trung ương Đảng Lao động Việt Nam[4].

Ngày 15 tháng 7 năm 1951, ông được bổ nhiệm làm Tổng Thanh tra Phó trong Ban Thanh tra Chính phủ, thay ông Trần Đăng Ninh sang đảm nhiệm chức vụ Chủ nhiệm Tổng cục Cung cấp[5].

Ngày 9 tháng 9 năm 1952, ông được bổ nhiệm làm Tổng Thanh tra Chính phủ Việt Nam thay ông Hồ Tùng Mậu vừa qua đời.[6]

Sau khi tiếp quản miền Bắc, ông được Quốc hội Việt Nam Dân chủ Cộng hòa phê chuẩn bổ nhiệm làm Bộ trưởng Bộ Giao thông và Bưu điện. Tháng 4 năm 1958, ông được phân công kiêm nhiệm chức vụ Chủ nhiệm Ủy ban Kế hoạch Nhà nước[7]. Đến tháng 12 năm 1958, khi tổ chức lại Ủy ban Kế hoạch, ông làm Phó Chủ nhiệm Ủy ban Kế hoạch Nhà nước. Ông Nguyễn Duy Trinh được bổ nhiệm làm Chủ nhiệm.

Từ năm 1960, ông được bổ nhiệm làm Bộ trưởng Bộ Công nghiệp nặng 2 nhiệm kỳ[8]. Tháng 9 năm 1960, ông được bầu là Ủy viên chính thức Trung ương Đảng và đến tháng 1 năm 1961, ông được bổ sung làm Bí thư Trung ương Đảng[4]., kiêm Phó trưởng ban Công nghiệp Trung ương [9]

Tháng 2 năm 1967, ông được miễn nhiệm chức vụ Bộ trưởng, được phân công tham gia Thường vụ Thành ủy Hà Nội. Từ năm 1968 đến năm 1974, ông được bầu làm Bí thư Thành ủy Hà Nội.[10]

Năm 1975 ông được Trung ương cử vào miền nam làm thành viên Trung ương Cục miền nam, sau đó tham gia công tác chỉ đạo Ban cải tạo công thương nghiệp Trung ương.

Sau khi Việt Nam thống nhất, ông được bầu làm Trưởng ban Ban Ngân sách của Quốc hội nước Cộng hòa Xã hội Chủ nghĩa Việt Nam[11]. Ông giữ chức vụ này cho đến ngày 29 tháng 12 năm 1978.[12]

Năm 1978, Chính phủ Việt Nam thành lập Viện Quản lý kinh tế Trung ương, ông được bổ nhiệm giữ chức Viện trưởng đầu tiên cho đến năm 1989.[13][14]